Requisitos previos
Para ejecutar el siguiente notebook se debe tener un ambiente de Python con las siguientes librerías instaladas.
Versión de Python 3.8.xx
- mysql-connector-python 8.4.0
- plotly 5.9.0
- mlxtend 0.23.1
- networkx 3.1
- fbprophet 1.1.5
- openpyxl 3.0.10
- nbformat 5.9.2
- kaleido 0.2.1
Instalación de paquetes
# %pip install mysql-connector-python
# %pip install plotly
# %pip install mlxtend
# %pip install networkx
# %pip install fbprophet
# %pip install openpyxl
# %pip install nbformat
# %pip install -U kaleido
Imports
# Imports para ejecución del notebook
import pandas as pd
import os as os
import matplotlib.pyplot as plt
import plotly.express as px
import numpy as np
import sqlite3
import plotly.io as pio
from mlxtend.frequent_patterns import association_rules
from mlxtend.frequent_patterns import apriori
from prophet import Prophet
from IPython.display import Image
from prophet.plot import plot_plotly, plot_components_plotly
import networkx as nx
import plotly.graph_objects as go
from sklearn.metrics import mean_squared_error
/Users/jorgebarquero/anaconda3/envs/Enae_SeriesTemporales/lib/python3.8/site-packages/holidays/__init__.py:32: FutureIncompatibilityWarning: This is a future version incompatibility warning from Python Holidays library v0.50 to inform you about an upcoming change in our API versioning strategy that may affect your project's dependencies. Starting from version 1.0 onwards, we will be following a loose form of Semantic Versioning (SemVer) to provide clearer communication regarding any potential breaking changes. This means that while we strive to maintain backward compatibility, there might be occasional updates that introduce breaking changes to our API. To ensure the stability of your projects, we highly recommend pinning the version of our API that you rely on. You can pin your current holidays v0.x dependency (e.g., holidays==0.50) or limit it (e.g., holidays<1.0) in order to avoid potentially unwanted upgrade to the version 1.0 when it's released (ETA 2024Q4 - 2025Q1). If you have any questions or concerns regarding this change, please don't hesitate to reach out to us via https://github.com/vacanza/python-holidays/discussions/1800. warnings.warn( /Users/jorgebarquero/anaconda3/envs/Enae_SeriesTemporales/lib/python3.8/site-packages/tqdm/auto.py:21: TqdmWarning: IProgress not found. Please update jupyter and ipywidgets. See https://ipywidgets.readthedocs.io/en/stable/user_install.html from .autonotebook import tqdm as notebook_tqdm
Variables globales
# Variable global para administrar el directorio actual
parent_dir = os.path.dirname(os.getcwd())
# Configuración para los renders de plotly
pio.renderers.default = 'notebook'
# Ubicación de base de datos
database_name = '/data/database/tfm_couriers.db'
# Exportar a PDF
exportar_pdf = False
# Registrar en base de datos
salvar_en_bd = False
Funciones reutilizables
# Funciones reutilizables
def SalvarEnBD(table_name, data):
if salvar_en_bd:
conn = sqlite3.connect(parent_dir + database_name)
# Convierte el DataFrame a una tabla SQL
data.to_sql(table_name , conn, if_exists='replace', index=False)
Business Understanding - listo¶
Un courier es una empresa o servicio especializado en la entrega rápida y eficiente de paquetes, documentos y otros tipos de envíos. A diferencia de los servicios postales tradicionales, los couriers suelen ofrecer una mayor velocidad, seguridad y confiabilidad en la entrega de sus envíos. Suelen caracterizarse porque sus servicios incluyen:
- Rapidez: Algunas empresas couriers pueden hacer entregas en el mismo día, al día siguiente o en un plazo muy corto, dependiendo de la urgencia del envío.
- Seguimiento: Los envíos por courier generalmente pueden ser rastreados en tiempo real, proporcionando información precisa sobre el estado y la ubicación del paquete.
- Seguridad: Los couriers a menudo ofrecen un manejo más cuidadoso de los envíos, con seguros y opciones de firma al recibir el paquete.
- Flexibilidad: Ofrecen una amplia gama de servicios, desde entregas locales y nacionales hasta envíos internacionales, adaptándose a las necesidades específicas de sus clientes.
- Servicio al cliente: Proporcionan atención personalizada y soluciones específicas para problemas o necesidades de envío.
Los couriers son utilizados tanto por particulares como por empresas que necesitan enviar documentos importantes, productos comprados en línea, muestras comerciales, y otros tipos de paquetes que requieren una entrega rápida y segura.
La empresa ExpediteX es una empresa dedicada a prestación de servicios logísticos de Courier y mensajería, que cuenta con 25 años de experiencia en el mercado. Sus servicios van desde la importación de productos en la modalidad de carga y paqueteo, distribución local y nacional a domicilio, hasta la asesoría para la importación y exportación, casillero internacional y asesoría de compras internacionales.
Por otro lado, SwiftShip cuenta con experiencia de 19 años en el manejo y traslado de paquetes y encomiendas, se caracterizan por trabajar directamente, sea, desde el recibimiento hasta la entrega de las mercancías es manejada por la empresa directamente (sin intermediarios).
Adicionalmente cuentan con 207 sucursales y/o puntos de recepción a nivel internacional en 50 países diferentes, entre ellos Estados Unidos, Canadá, Panamá, República Dominicana, Guatemala, Venezuela, Argentina, Brasil, Chile, Colombia, Ecuador, Perú, Uruguay, España, Italia, Portugal, Alemania y el resto de la Comunidad Europea.
Ambas empresas operan en un mercado muy competitivo, donde la eficiencia en la entrega, la cobertura geográfica y la calidad del servicio al cliente son factores clave para su éxito. Estas empresas ofrecen una variedad de servicios, que van desde la entrega de paquetes locales hasta el envío internacional, adaptándose a las necesidades de diferentes segmentos del mercado, como particulares y empresas.
La integración de tecnologías avanzadas, como el rastreo en tiempo real y la gestión automatizada de inventarios y compras juega un papel crucial en la optimización de los procesos logísticos, con lo que la incorporación de toma de la decisiones basadas en datos, tiene gran importancia en las empresas de courier, pues es crucial para optimizar sus operaciones, mejorar la satisfacción del cliente y aumentar la eficiencia en el manejo de envíos.
Objetivo General - listo¶
Desarrollar mediante la metodología CRISP-DM un análisis de datos sobre los procesos de importación de las empresas SwiftShip y ExpediteX de courier en Costa Rica durante el período 2021-2023, para la optimización de sus operaciones y mejora de la toma de decisiones estratégicas. Utilizando técnicas avanzadas de análisis de datos y las herramientas disponibles, se espera obtener al menos cinco recomendaciones concretas y presentar los hallazgos en un informe detallado en el plazo de cuatro meses.
Objetivos Específicos - listo¶
Implementar un análisis de cesta (basket analysis) utilizando algoritmos de asociación para la identificación de los patrones más relevantes de compra y relaciones entre los productos adquiridos por los importadores que han utilizado los servicios de las empresas SwiftShip y ExpediteX de courier en Costa Rica. Utilizando los datos de transacciones de los últimos tres años, se espera la mejora en las estrategias de marketing y optimización del servicio. El análisis se lleva a cabo y los resultados se presentan en un informe detallado en un plazo de tres meses.
Realizar un análisis de tendencias de las mercancías importadas utilizando técnicas de análisis de series temporales, para la identificación de patrones significativos y cambios importantes en la demanda de diferentes tipos de mercancías a lo largo del tiempo. Esto permitirá la anticipación de las necesidades logísticas y ajustes de estrategias de importación para la mejora de la eficiencia operativa. Dicho análisis se completará en un plazo de seis meses.
Diseñar un conjunto de tres variables ingenieriles específicas para la implementación en las empresas SwiftShip y ExpediteX, para la optimización de los procesos de importación bajo la modalidad courier. Utilizando técnicas de análisis de datos y conocimientos de la industria, se espera la mejora de la eficiencia y efectividad de dichos procesos. Este diseño y la implementación de un plan piloto se completarán en un plazo de cinco meses.
Definiciones - listo¶
Aduana: Unidad técnico-administrativa encargada de las gestiones aduaneras y del control de las entradas, la permanencia y la salida de las mercancías objeto del comercio internacional (Art. 13 LGA).
Agente aduanero: Profesional auxiliar de la función pública aduanera autorizado por la DGA para actuar, en su carácter de persona natural en la presentación habitual de servicios a terceros, en los trámites, los regímenes y las operaciones aduaneras. (Art. 33, LGA)
Auxiliar de la Función Pública: Personas físicas o jurídicas, públicas o privadas, que participen habitualmente ante el Servicio Nacional de Aduanas (SNA), en nombre propio o de terceros. (Art. 28 LGA).
Bultos: Unidad utilizada para contener mercancías. Puede consistir en cajas, sacas, fardos, cilindros y demás formas de presentación de las mercancías, según su naturaleza (Ministerio de Hacienda, 2021).
Código Sistema Arancelario Centroamericano (SAC): El Arancel Centroamericano de Importación está constituido por el Sistema Arancelario Centroamericano (SAC) y los correspondientes Derechos Arancelarios a la Importación (DAI). El código numérico del SAC está representado por diez dígitos que identifican: los dos primeros, al capítulo; los dos siguientes, a la partida; el tercer par, a la subpartida; y los cuatro últimos, a los incisos arancelarios. La identificación de las mercancías se hará siempre con los diez dígitos de dicho código numérico. (Estrategia Aduanera, s.f.)
Código Sistema Armonizado (SA): El Sistema Armonizado (SA) es un código de clasificación de mercancías creado por la Organización Mundial de Aduanas (OMA) y está compuesto por 6 dígitos con aceptación en todo el mundo. Sirve para llevar un control en las mercancías de exportación e importación en cuanto a los impuestos internos, monitoreo de bienes, origen y materia constitutiva.
Declarante: El importador o consignatario, en el caso de la importación de mercancías.
Depositario Aduanero: Persona física o jurídica, pública o privada, auxiliar de la función pública aduanera autorizadas mediante concesión por la DGA, que custodian y conservan temporalmente y con suspensión del pago de tributos, mercancías objeto de comercio exterior, bajo la supervisión y el control de la autoridad aduanera. (Ministerio de Hacienda, 2021).
Derechos Arancelarios a la Importación (DAI): Derechos Arancelarios a la Importación que son un porcentaje estipulado por tipo de mercancías y se calcula sobre el Valor Aduanero.
Descripción o designación de la mercancía: Precisa identificación de las características de ésta, sea de manera concreta, detallada, que singulariza de tal forma el objeto a clasificar que no deja duda alguna sobre su tipificación. (Quirós, 2024).
DUA: Documento Único Aduanero, declaración realizada mediante transmisión electrónica de datos, mediante la cual se indica el régimen aduanero y la modalidad que deberá aplicarse a las mercancías (Ministerio de Hacienda, 2021).
Empresa de entrega rápida (EER): Personas físicas o jurídicas legalmente establecidas, autorizadas y registradas ante la DGA, cuyo giro o actividad principal es la prestación de servicios de transporte internacional expreso a terceros, de correspondencia, documentos y envíos de mercancías bajo la modalidad de entrega rápida. (Ministerio de Hacienda, 2021).
Envíos de entrega rápida: Documentos y mercancías transportadas bajo sistemas de entrega rápida o courier, consignadas a terceros. (Ministerio de Hacienda, 2021).
Factura Comercial: Documento expedido conforme a los usos y las costumbres comerciales, justificativo de un contrato de compraventa de mercancías o servicios extendido por el vendedor a nombre y cargo del comprador.
Fecha: Fecha en que fue aceptado el DUA por el Sistema de Tecnología de Información para el Control Aduanero (TICA) de Costa Rica.
Flete: Monto de flete desde el origen, o sea desde el momento en que se elabora el conocimiento de embarque original y se inicia el servicio de transporte hasta el puerto o lugar de importación. (Ministerio de Hacienda, 2021).
Identificación (ID) Agente: Cédula de identidad física u jurídica del Agente Aduanero.
Identificación (ID) Declarante: En el caso que nos ataque, el número de identificación de la empresa declarante ante el Ministerio de Hacienda.
Identificación (ID) Localización: Número de identificación de la empresa donde está localizada la mercancía, en el caso de envíos de courier, suele referirse al Depositario Aduanero o Almacén fiscal.
Importador: Empresario o empresa que se dedica a comprar productos a clientes del exterior para luego venderlos en el mercado local o para consumo o uso propio.
Impuesto sobre el Valor Agregado (IVA): Según el artículo 1 de la Ley 9635, el impuesto sobre el valor agregado se establece en la venta de bienes y en la prestación de servicios, independientemente del medio por el que sean prestados, realizados en el territorio en Costa Rica.
Impuestos Selectivo de Consumo (SC): Impuesto establecido sobre bienes y servicios específicos, por razones que dependen de cada Estado. Entre las razones más comunes para gravar un bien específico se encuentra, por ejemplo, el carácter indemnizatorio o el desincentivador que se pretende implementar sobre o por el consumo o realización de este. Así, es que las bebidas alcohólicas, el tabaco, y la marihuana
Impuestos: Los Derechos o impuestos a la importación corresponden al monto de tributos que el fisco recauda debido al ingreso de una mercancía extranjera al comercio nacional. (Ministerio de Hacienda, 2024).
Ítem: Línea del DUA donde se describe e indica la cantidad de las mercancías que se presentan para ser destinadas a un régimen aduanero determinado.
Ley 6946: Tarifa de Ley N°6946, de un 1% aplicable sobre el valor aduanero.
Localización: véase Depositario Aduanero.
Medio o modo de transporte: Nave, aeronave, vagón ferroviario, vehículo automotor, o cualquier otro medio utilizado para el transporte de personas o mercancías. (Ministerio de Hacienda, 2021)
Mercancía: Objeto susceptible de ser apropiado y, por ende, importado o exportado, clasificado conforme al arancel de aduanas.
Modalidad: Cada régimen aduanero contará con modalidades según detalle, por ejemplo, la importación puede ser modalidad importación definitiva, temporal, courier, entre otras.
Modelo: De las mercancías que se adquieren, por ejemplo en sitios web y se trasladan a Costa Rica, bajo la modalidad de courier.
Nota técnica: requisitos no arancelarios o autorizaciones preestablecidos por la institución rectora mediante leyes y decretos, que avalan el ingreso o salida de las mercancías del o al territorio nacional. (Ministerio de Hacienda, 2021)
País de adquisición: País en donde se adquirido el servicio o mercancía.
País de origen: País de donde, según lo establecido en el Tratado de Libre Comercio, son originarias las mercancías o servicios.
País de procedencia: País de donde procede la mercancía, que no necesariamente coincide con el país de origen o de adquisición.
Peso bruto: El peso bruto es el peso total de un producto más su empaque o contenedor.
Peso neto: El peso neto de un producto, sea únicamente el peso del producto en sí.
Precio FOB: FOB es un término comercial que pertenece a los Incoterms, corresponde a las siglas en inglés de 'Free on board'. El Precio FOB se determina por: precio de la mercancía, el precio de embalaje y etiquetado, precio por transporte desde la planta de producción hasta el puerto de origen, el precio del seguro de la mercancía durante su traslado a puerto, gastos administrativos generados por la concesión de permisos o licencias, gastos derivados de las autoridades aduaneras, algunos gastos bancarios resultantes de pagos y transferencias internacionales y gastos portuarios, como uso de muelle, elevadores o estiba.
PROCOMER: Promotora de Comercio Exterior de Costa Rica, pago de $3 por cada declaración aduanera transmitida electrónicamente, para la institución.
Proveedor: Persona física o jurídica que suministra profesionalmente un determinado bien o servicio a otros individuos o sociedades, como forma de actividad económica y a cambio de una contra prestación.
Régimen: Diferentes destinaciones a que pueden quedar sujetas las mercancías que se encuentran bajo control aduanero (Art 109. LGA)
Seguro: Protección de la carga desde que sale del depósito del vendedor hasta las bodegas del comprador, o según INCOTERM.
Unidad de medida: Referencia convencional que se usa para medir la magnitud física de un determinado objeto, sustancia o fenómeno.
Valor CIF: Representa el precio total de la mercancía, incluyendo el coste, del seguro y el flete hasta el puerto de destino acordado.
Valor en Aduana: El valor de transacción, o precio realmente pagado o por pagar por las mercancías cuando éstas se venden para su exportación al país de importación.
Data Understanding -- listo¶
La fase de comprensión de datos de CRISP-DM implica estudiar de cerca los datos disponibles de minería. Este paso es esencial para evitar problemas inesperados durante la siguiente fase (preparación de datos) que suele ser la fase más larga de un proyecto.
Como se señala, el proceso de data understanding es importante para establecer una base sólida para el análisis, permitiendo una comprensión profunda de la estructura y el contenido de la base de datos, que incluye elementos como DUA, Fecha DUA, Código SAC, cantidad, Valor FOB USD$, Costo flete USD$, Costo seguro USD$, Valor CIF USD$, Valor en Aduana USD$, Peso bruto en libras, Descripción de Mercancía, Total IVA USD$, Total Ley 6946 USD$, total DAI US$, Total SC USD$ y total de Impuestos.
Se parte de un enfoque en los tres objetivos específicos descritos con anterioridad.
Carga de archivo de datos fuente -- listo¶
Se inicia con una carga del conjunto de datos, ubicado en la carpeta '/data/raw/' de nuestro directorio. Para evitar problemas de ubicación, se utiliza la variable parent_dir que representa el directorio padre de la solución. Esto se obtuvo al inicio de este notebook
# Lectura del archivo de datos y almacenamiento en variable data
data = pd.read_excel (parent_dir + '/data/raw/data.xlsx', sheet_name='UnifiedData')
# Se despliega los primeros registros de los datos
data.head()
| DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | Modelo | ... | Total IVA USD | % Ley 6946 | Total Ley 6946 USD | % DAI | Total DAI USD | COSTO por PROCOMER USD | % S.C | Total SC USD | Otros impuestos USD | Total de Impuestos | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 005-2022-001495 | 1 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 6.45 | 1 | 0.43 | 14 | 6.04 | 3 | 0 | 0.00 | 0.11 | 16.03 |
| 1 | 005-2022-001495 | 2 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 92.12 | 1 | 5.61 | 14 | 78.49 | 0 | 10 | 63.91 | 0.00 | 240.13 |
| 2 | 005-2022-001495 | 3 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 86.12 | 1 | 5.76 | 14 | 80.65 | 0 | 0 | 0.00 | 0.00 | 172.53 |
| 3 | 005-2022-001495 | 4 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 51.21 | 1 | 3.58 | 9 | 32.23 | 0 | 0 | 0.00 | 0.00 | 87.02 |
| 4 | 005-2022-001495 | 5 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 9.54 | 1 | 0.64 | 14 | 8.94 | 0 | 0 | 0.00 | 0.00 | 19.12 |
5 rows × 49 columns
Lectura de catálogos -- listo¶
Se carga la información del catálogo hecho con base en el Sistema Armonizado (SA), es código según se indicó con anterioridad, es una clasificación de mercancías creado por la Organización Mundial de Aduanas (OMA) y está compuesto por 6 dígitos (Subpartidas) con aceptación en casi todo el mundo.
Para facilitar la interpretación, se utiliza la codificación a nivel de partida (4 dígitos) sin que esto afecte la codificación original de la OMA.
# Variable para administrar los datos de los catálogos
data_catalogo = pd.read_excel(parent_dir + '/data/raw/catalogo.xlsx', sheet_name='Catálogo')
# Despliegue de primeras filas del conjunto de datos
data_catalogo.head()
| Código Sistema Armonizado | Descripción | |
|---|---|---|
| 0 | 9504 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 1 | 8516 | CALENTADORES ELÉCTRICOS DE AGUA DE CAL... |
| 2 | 3926 | LAS DEMÁS MANUFACTURAS DE PLÁSTICO Y... |
| 3 | 9506 | ARTÍCULOS Y MATERIAL PARA CULTURA FÍSI... |
| 4 | 9503 | TRICICLOS, PATINETES, COCHES DE PEDAL Y JUGUET... |
Descripción de valores en columnas de datos -- Revisar¶
Hacer una descripción de valores en columnas de datos en el proceso de data understanding es esencial para comprender el contenido y la estructura de los datos, identificar problemas de calidad, y detectar patrones y tendencias preliminares. Este análisis inicial permite validar hipótesis, preparar adecuadamente los datos para modelos y algoritmos posteriores, y asegurar una comunicación clara y documentada de los hallazgos. En el proyecto CRISP-DM para SwiftShip y ExpediteX, esto garantiza que las decisiones estratégicas se basen en datos precisos y bien entendidos.
- Año: Año en que se realizaron las importaciones.
- DUA: Documento Único Administrativo, identificador de la operación de importación.
- Item: Número de ítem en la factura.
- Fecha: Fecha de la operación de importación.
- Aduana: Aduana por la que ingresaron los productos.
- Regimen: Régimen aduanero bajo el cual se importaron los productos.
- Modalidad: Modalidad de importación.
- Importador: Empresa que importó los productos.
- Proveedor: Proveedor de los productos importados.
- Marca: Marca de los productos importados.
- Modelo: Modelo de los productos importados.
- Factura: Número de factura de la operación de importación.
- Código SAC: Código del Sistema Armonizado de Designación y Codificación de Mercancías.
- Vía Transporte: Vía por la que se transportaron los productos.
- País de Origen: País de origen de los productos.
- Pais de Procedencia: País de procedencia de los productos.
- Pais de Adquisición: País donde se adquirieron los productos.
- Cantidad Comercial: Cantidad de productos importados.
- Unidad de Medida: Unidad de medida de los productos importados.
- Volúmen Físico: Volumen físico de los productos importados.
- Bultos: Cantidad de bultos en los que se transportaron los productos.
- U$S FOB: Valor FOB (Free On Board) de los productos en dólares estadounidenses.
- U$S FOB Unit.: Valor unitario FOB de los productos en dólares estadounidenses.
- U$S Flete: Costo del flete en dólares estadounidenses.
- U$S Seguro: Costo del seguro en dólares estadounidenses.
- U$S CIF: Valor CIF (Cost, Insurance and Freight) de los productos en dólares estadounidenses.
- U$S Unitario: Valor unitario de los productos en dólares estadounidenses.
- Valor en Aduana U$S: Valor en aduana de los productos en dólares estadounidenses.
- Kg netos: Peso neto de los productos en kilogramos.
- Kg brutos: Peso bruto de los productos en kilogramos.
- Descripción de Mercancía: Descripción de los productos importados.
- ID Declarante: Identificador del declarante.
- Declarante: Nombre del declarante.
- ID Agente: Identificador del agente de aduanas.
- Agente: Nombre del agente de aduanas.
- ID Localización: Identificador de la localización.
- Localización: Localización de la operación de importación.
- % IVA: Porcentaje del Impuesto al Valor Agregado.
- IVA - U$S: Valor del IVA en dólares estadounidenses.
- % Ley 6946: Porcentaje de la Ley 6946.
- Ley 6946 U$S: Valor de la Ley 6946 en dólares estadounidenses.
- % DAI: Porcentaje del Derecho Arancelario de Importación.
- DAI U$S: Valor del DAI en dólares estadounidenses.
- PROCOMER U$S: Valor de PROCOMER en dólares estadounidenses.
- % S.C: Porcentaje de S.C.
- S.C. U$S: Valor de S.C en dólares estadounidenses.
- Otros Imp. U$S: Otros impuestos en dólares estadounidenses.
- Total de Impuestos: Total de impuestos de la operación de importación.
- Proporción Pr FOB / impuestos: Proporción entre el valor FOB y los impuestos.
- Proporción VA / impuestos: Proporción entre el valor en aduana y los impuestos.
Análisis Estadístico -- Listo¶
Ayuda a entender cómo están distribuidos los datos en términos de frecuencia, media, mediana, moda, rangos y varianza, lo cual permite identificar patrones generales en las importaciones. Al analizar las tendencias a lo largo de los años, codificación de las mercancías importadas, países de origen y procedencia, y otros atributos, se pueden identificar patrones que ayuden a tomar decisiones estratégicas.
Además, el análisis descriptivo permite detectar valores atípicos o inconsistencias en los datos, lo cual es crucial para asegurar la calidad y la integridad de la información. Identificar oportunidades para optimizar los procesos de importación, reducir costos y mejorar la eficiencia operativa también se facilita con este análisis. Asegurar que todas las importaciones cumplen con las regulaciones y requisitos legales, incluyendo la correcta aplicación de impuestos y aranceles, es fundamental para el cumplimiento normativo.
Finalmente, un análisis descriptivo proporciona una base sólida para la planificación y la elaboración de pronósticos futuros, basados en el análisis de datos históricos.
# Métricas descriptivas de los datos
data.describe(include='all')
| DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | Modelo | ... | Total IVA USD | % Ley 6946 | Total Ley 6946 USD | % DAI | Total DAI USD | COSTO por PROCOMER USD | % S.C | Total SC USD | Otros impuestos USD | Total de Impuestos | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| count | 178434 | 178434.000000 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | ... | 178434.000000 | 178434.0 | 178434.000000 | 178434.0 | 178434.000000 | 178434.000000 | 178434.0 | 178434.000000 | 178434.000000 | 178434.00000 |
| unique | 4176 | NaN | NaN | 1 | 1 | 2 | 2 | 12 | 16 | 33 | ... | NaN | 8.0 | NaN | 11.0 | NaN | NaN | 16.0 | NaN | NaN | NaN |
| top | 005-2023-732459 | NaN | NaN | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | No disponible | ... | NaN | 1.0 | NaN | 14.0 | NaN | NaN | 0.0 | NaN | NaN | NaN |
| freq | 480 | NaN | NaN | 178434 | 178434 | 178357 | 143547 | 178393 | 178357 | 178357 | ... | NaN | 93314.0 | NaN | 56616.0 | NaN | NaN | 96091.0 | NaN | NaN | NaN |
| mean | NaN | 63.527013 | 2022-06-23 05:30:13.497427712 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 6.062704 | NaN | 0.376309 | NaN | 3.501689 | 0.066882 | NaN | 0.812547 | 0.003029 | 10.82316 |
| min | NaN | 1.000000 | 2021-01-04 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 0.000000 | NaN | 0.000000 | NaN | 0.000000 | 0.000000 | NaN | 0.000000 | 0.000000 | 0.00000 |
| 25% | NaN | 12.000000 | 2021-08-05 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 0.250000 | NaN | 0.000000 | NaN | 0.000000 | 0.000000 | NaN | 0.000000 | 0.000000 | 0.59000 |
| 50% | NaN | 46.000000 | 2022-04-06 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 2.230000 | NaN | 0.140000 | NaN | 0.940000 | 0.000000 | NaN | 0.000000 | 0.000000 | 3.94000 |
| 75% | NaN | 100.000000 | 2023-05-17 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 5.790000 | NaN | 0.360000 | NaN | 3.320000 | 0.000000 | NaN | 0.000000 | 0.000000 | 10.43000 |
| max | NaN | 480.000000 | 2023-12-28 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 190.890000 | NaN | 11.530000 | NaN | 161.370000 | 3.000000 | NaN | 242.510000 | 12.000000 | 476.31000 |
| std | NaN | 60.202672 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | 12.400669 | NaN | 0.797761 | NaN | 8.447561 | 0.442915 | NaN | 5.652555 | 0.065990 | 23.05286 |
11 rows × 49 columns
Verificación de valores nulos -- listo¶
Este proceso implica identificar y manejar cualquier dato faltante en las columnas del dataset. Los valores nulos pueden distorsionar los resultados del análisis y los modelos predictivos, por lo que es fundamental tratarlos adecuadamente.
Para efectos de este estudio, no existen valores nulos en el conjunto de datos por lo que no es necesario darles tratamiento
# Revisión de valores faltantes
data.isnull().sum()
DUA 0 Item del DUA 0 Fecha DUA 0 Aduana 0 Regimen 0 Modalidad 0 Importador 0 Proveedor 0 Marca 0 Modelo 0 Factura 0 Código SAC 0 Código Sistema Armonizado 0 Modo transporte 0 País de Origen 0 Pais de Procedencia 0 Pais de Adquisición 0 Cantidad 0 Unidad de Medida 0 Volúmen Físico 0 Cantidad de bultos 0 Valor FOB USD 0 Valor FOB USD por unidad 0 Costo flete USD 0 Costo seguro USD 0 Valor CIF USD 0 Valor CIF USD unitario 0 Valor en Aduana USD 0 Peso neto Kg 0 Peso bruto Kg 0 Peso bruto en Libras 0 Descripción de Mercancía 0 ID Declarante 0 Declarante 0 ID Agente Aduanero 0 Agente aduanero 0 ID Localización 0 Localización 0 % IVA 0 Total IVA USD 0 % Ley 6946 0 Total Ley 6946 USD 0 % DAI 0 Total DAI USD 0 COSTO por PROCOMER USD 0 % S.C 0 Total SC USD 0 Otros impuestos USD 0 Total de Impuestos 0 dtype: int64
Histogramas -- listo¶
Los histogramas representados permiten visualizar la distribución de los datos, identificando patrones y tendencias temporales, tipos de productos más importados y rangos de valores comunes. Facilitan la detección de outliers y variaciones en costos y pesos, ayudando a analizar la eficiencia logística y el impacto económico de las importaciones. Esta representación visual es esencial para optimizar procesos y tomar decisiones estratégicas informadas.
Se seleccionan las siguientes variables al considerarse las más relevantes para los objetivos planteados para este estudio:
- Fecha DUA
- Código Sistema Armonizado
- Valor FOB USD
- Costo Flete USD
- Costo Seguro USD
- Valor CIF USD
- Peso bruto en libras
# Lista de columnas específicas para las cuales quieres generar histogramas
columnas_especificas = ['Fecha DUA',
'Código Sistema Armonizado',
'Valor FOB USD',
'Costo flete USD',
'Costo seguro USD',
'Valor CIF USD','Peso bruto en Libras']
# Crea histogramas para las columnas especificadas
for columna in columnas_especificas:
fig = px.histogram(data, x=columna, title=f"Histograma de {columna}")
if (exportar_pdf == False):
# Para generación de página web
fig.show()
else:
# Para exportar en pdf
image_bytes = pio.to_image(fig, format='png')
display(Image(image_bytes))
Comparativa de cantidades importadas por año¶
TODO: FALTA TEXTO
data['Año'] = data['DUA'].str[4:8]
# Mover la columna Anno a la primera posición
año = data.pop('Año')
data.insert(0, 'Año', año)
data['Año'] = pd.to_datetime(data['Año'])
def create_pivot_table(data):
pivot_df = data.pivot_table(index='Año', columns='Importador', values='Cantidad', aggfunc='sum').reset_index()
plot_pivot_table(pivot_df)
def plot_pivot_table(pivot_df):
# Preparar los datos para Plotly
pivot_df_long = pivot_df.melt(id_vars='Año', var_name='Importador', value_name='Cantidad')
# Crear el gráfico de barras con Plotly
fig = px.bar(pivot_df_long, x='Año', y='Cantidad', color='Importador', title='Cantidades Importadas por Cada Empresa Cada Año',
labels={'Cantidad': 'Cantidad Importada', 'Año': 'Año'}, barmode='stack')
# Mostrar el gráfico
if (exportar_pdf == False):
# Para generación de página web
fig.show()
else:
# Para exportar en pdf
image_bytes = pio.to_image(fig, format='png')
display(Image(image_bytes))
create_pivot_table(data)
Top 20 DUAs por Valor CIF USD -- listo¶
Este código permite visualizar las 20 principales operaciones de importación (DUAs) en términos del Valor CIF (Cost, Insurange y Freight).
Al visualizar estos datos, se puede identificar cuáles son las operaciones de importación más valiosas.
def plot_top_20_duas(data):
"""
Grafica las 20 principales DUAs por Valor CIF USD utilizando plotly.express.
Parámetros:
- data (pandas.DataFrame): El DataFrame de entrada que contiene los datos.
"""
# Obtener las 20 principales DUAs por cantidad
top_20_duas = data['DUA'].value_counts().head(20).index
# Filtrar los datos para incluir solo las DUAs seleccionadas
filtered_data = data[data['DUA'].isin(top_20_duas)]
# Agrupar los datos por DUA y sumar los valores de Valor FOB USD
aggregated_data = filtered_data.groupby('DUA')['Valor CIF USD'].sum().reset_index()
# Ordenar los datos por Valor FOB USD de forma descendente
aggregated_data = aggregated_data.sort_values(by='Valor CIF USD', ascending=False)
# Crear el gráfico de barras utilizando plotly express
fig = px.bar(aggregated_data, x='DUA', y='Valor CIF USD',
labels={'DUA': 'DUA', 'Valor CIF USD': 'Valor CIF USD'},
title='Top 20 DUAs por Valor CIF USD')
fig.update_layout(xaxis_tickangle=-90)
# Mostrar el gráfico
if not exportar_pdf:
# Para generación de página web
fig.show()
else:
# Para exportar en pdf
image_bytes = pio.to_image(fig, format='png')
display(Image(image_bytes))
plot_top_20_duas(data)
Dispersión de datos -- listo¶
Este gráfico muestra la relación entre dos variables y cómo se distribuyen los datos en el espacio bidimensional, ayudando a identificar patrones, tendencias y posibles outliers. En el caso se visualiza la relación entre el valor CIF de las mercancías y su peso neto, esto con el fin de observar el comportamiento de los costos de manejo para los importadores, en relación con el peso y valor CIF de las mercancías.
Los valores límites corresponden a mercancías que se destacan por su alto valor CIF, sin embargo no se identifican dentro del conjunto de datos ningún valor inusual que pudiese afectar la integridad de los modelos a desarrollar.
def create_scatter_plot(data, exportar_pdf=False):
"""
Crea un gráfico de dispersión con diferentes colores basado en el importador y muestra información adicional al pasar el cursor sobre 'Descripción de Mercancía'.
Parámetros:
- data: DataFrame que contiene los datos a graficar.
- exportar_pdf: Booleano que indica si se exportará el gráfico como PDF o se mostrará en una página web. El valor predeterminado es False.
"""
# Crea el gráfico de dispersión con diferentes colores basado en el importador y muestra información adicional al pasar el cursor sobre 'Descripción de Mercancía'
fig = px.scatter(data, x='Peso bruto en Libras', y='Valor CIF USD', color='Importador',
title='Valor CIF USD vs. Peso bruto en Libras',
hover_data={'Descripción de Mercancía': True})
# Muestra el gráfico
if not exportar_pdf:
# Para generación de página web
fig.show()
else:
# Para exportar como PDF
image_bytes = pio.to_image(fig, format='png')
display(Image(image_bytes))
create_scatter_plot(data)